Risk-Aware Reranking for Agentic Tool Retrieval
风险感知的Agent工具检索重排序
🧭 Agent 工具检索的风险感知重排序 ★ 深度解读
University of Science and Technology of China · University of Electronic Science and Technology of China · Lanzhou University · Fenz.AI · University of Glasgow
提出轻量双头重排序框架，在保持相关性的同时通过可调风险惩罚和规则过滤降低高风险工具暴露
📌 工作参考价值（4 点）
- 在电商/广告的 Agent 工具调用或 API 选择场景，可以在召回后增加双头重排序：冻结已有 encoder，只训练两个轻量 MLP 头（相关头 + 风险头），用 s = f_rel - λ f_risk 融合，λ 作为推理时旋钮控制安全-效用平衡，头部参数量仅 20 万，推理开销极小。
- 对商品/内容候选做类似风险标注（如合规风险、敏感类目、价格操纵风险），定义 RVR@k / SRR@k 类指标监控 top-k 风险暴露，作为 NDCG/MRR 之外的安全补充指标；该论文的标注方案（三 LLM 投票 + 人工复核）可直接复用。
- 规则过滤器思路可迁移到严格合规场景：重排后叠加硬约束（如最多一个高风险商品、相似度去重），提供可解释的保守操作点，适合需要审计的推荐/搜索候选集。
- ToolGraph 的分数平滑主要提升相关性而非安全，若要在业务中引入 item 关系图（如同店铺、共现、类目）做平滑，应将其定位为相关性增强模块，安全控制需依赖独立的风险头或规则。